La récente lettre ouverte concernant la conscience de l'IA sur laquelle vous signalez (les systèmes d'IA pourraient être «causés à souffrir» si la conscience obtenue, dit Research, 3 février) met en évidence un véritable problème moral: si nous créons une IA consciente (que ce soit délibérément ou par inadvertance), alors nous nous aurait le devoir de ne pas souffrir. Ce que la lettre ne fait pas, cependant, c'est de capturer ce que c'est un grand «si».
Certaines théories prometteuses de la conscience ouvrent en effet la porte à la conscience de l'IA. Mais d'autres théories tout aussi prometteuses suggèrent qu'être conscient nécessite d'être un organisme. Bien que nous puissions rechercher des indicateurs de conscience dans l'IA, il est très difficile - peut-être impossible - de savoir si une IA est réellement consciente ou ne présente que les signes extérieurs de la conscience. Étant donné la profondeur de ces problèmes, la seule position raisonnable à adopter la conscience artificielle est une conscience agnostique.
Cela signifie-t-il que nous pouvons ignorer le...
[Courte citation de 8% de l'article original]